iT邦幫忙

0

【Day 05】RAG 檢索增強生成基礎:文本分塊與 Embedding

  • 分享至 

  • xImage
  •  

一、 今天的心情與學習目標
不知不覺自主學習計畫已經進行到第五天了。今天我要接觸一個聽起來超級專業的技術叫做
檢索增強生成。昨天學了怎麼精準問問題,但如果人工智慧根本沒學過我們公司的私有知識
,它就會開始一本正經地胡說八道。今天的目標就是要學會怎麼把正確的參考資料提早準備
好餵給它,而第一步就是要先搞懂文本分塊還有數值化嵌入這兩個全新的觀念。
二、 檢索增強生成基礎與文本分塊
早上我花了很多時間在理解文本分塊到底是什麼。簡單來說,如果我們直接把一整本厚厚的
說明書丟給人工智慧,它會讀得很吃力甚至忘記前面的內容。所以我們需要寫一些邏輯,把
長篇大論的文章切成一小段一小段的文字區塊。這感覺就像是我們大一在準備期中考的時候
,把厚厚的計概課本整理成一張一張的重點小卡一樣,這樣系統在尋找答案的時候就會快很
多也精確很多。
三、 數值化嵌入的神奇體驗
下午的進度是學習數值化嵌入技術。電腦其實看不懂我們人類的文字,所以必須透過一個轉
換的過程,把剛剛切好的文字重點小卡變成一長串的數字陣列。我看著網頁上的教學範例,
輸入了一段簡單的自我介紹,按下轉換指令後,螢幕上瞬間跑出好幾百個帶有小數點的數字
。原來在電腦的世界裡,每一句話都是用這些複雜的數學座標來表示意義的,這讓我對資訊
科學背後的數學原理感到無比神奇。
四、 今天遇到的困難與心得
今天在實作切分文章的時候遇到了一個兩難的問題。一開始我把文章切得太細碎,結果每一
段都只有半句話,系統之後在看的時候根本猜不透上下文的意思。後來我又切得太大塊,結
果超過了轉換模型處理的字數上限而跑出一大堆紅色的錯誤訊息。經過不斷調整切分的字數
限制還有保留前後文重疊的比例,才終於找到一個平衡點。這讓我學到,看似簡單的文字切
分動作,其實需要耐心測試來微調參數。
五、 明天的計畫與期許
今天的學習讓我理解了資料處理的前置作業有多麼重要,也體會到把文字變成數學數字的科
技魅力。明天我計畫要把今天產生出來的這些數字陣列,存進一個專門用來放這些資料的向
量資料庫裡面,並且嘗試用數學計算的方式來搜尋相關的句子。希望明天的實作也能順順利
利,繼續把這個厲害的檢索系統慢慢建立起來。


*提醒邦友,使用第三方服務/API 時,請務必評估資安風險與隱私保護
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言